1975 yılında Tokat'ın Artova İlçesi Ahmetdanişment Köyü'nde doğdu. Sırasıyla; Ahmetdanişment Köyü İlkokulu, Artova YİBO, Tokat Teknik ve Endüstri Meslek Lisesi, Gazi Üniversitesi Teknik Eğitim Fakültesi Makine Bölümü Talaşlı Üretim Öğretmenliğini bitirdi. MGV Gazi Üniversitesi Öğrenci Başkanlığı ve MGV Üniversite Öğrenci Yurdu Müdürlüğü yaptı.

İlk görevine Şırnak İstiklal İlköğretim Okulu'nda başladı.Şırnak'ta öğretmenlik ve müdür yardımcılığı olmak üzere 5 yıl görev yapan YALÇIN, daha sonra İstanbul Sultanbeyli Halk Eğitim Merkezi Müdür Yardımcılığı, Maltepe Fevzi Çakmak İlköğretim Okulu Müdür Vekilliği, Sancaktepe Halk Eğitim Merkezi Kurucu Müdürlüğü görevlerinde bulundu. Memur-Sen İstanbul İl Sekreterliği yaptı. Sancaktepe Belediyesi Kent Konseyi Yürütme Kurulu üyeliği, Çalışma Hayatı ve Sendikal Haklar Çalışma Grubu sorumluluğu görevlerinde bulundu. 2004'ten itibaren Eğitim-Bir-Sen İstanbul 4 No'lu Şube Başkanlığı'nı yürüten YALÇIN, aynı zamanda Pendik Ertuğrulgazi İlköğretim Okulu Müdürü olarak görev yaptı. Yönetici Sınavlarına Hazırlık, Şeflik Sınavlarına Hazırlık ve Görevde Yükselme Sınavlarına Hazırlık olmak üzere üç adet kitabın yayınlanmasında görev alan Ali YALÇIN, aynı zamanda Maltepe Üniversitesi'nde Eğitim Yönetimi ve Denetimi Yüksek Lisans yaptı. 19-20 Şubat 2011 tarihinde yapılan 4. Olağan Genel Kurul'da Genel Basın Yayın Sekreterliği'ne seçilen YALÇIN, 21-22 Şubat 2015 tarihinde yapılan 5. Olağan Genel Kurul'da Eğitim-Bir-Sen Genel Başkanlığa seçildi. 18-19 Nisan 2015 tarihinde yapılan Memur-Sen 5. Olağan Genel Kurulu'nda yapılan seçimle Memur-Sen Genel Başkanlığı'na seçildi. Evli ve 4 çocuk babasıdır.